Không giống các quốc gia bị chia cắt trong Chiến tranh Lạnh như tại Triều Tiên, Đức và Việt Nam, mối quan hệ giữa 2 bên khá thân thiện tuy nhiên cũng có lúc căng thẳng. Cũng không giống Đức, Việt Nam và Triều Tiên bị chia cắt bởi chiến tranh hoặc chiếm đóng, 2 nhà nước Yemen được hình thành với hoàn cảnh khác nhau. Bắc Yemen được thành lập tháng 11 năm 1918 sau khi Đế quốc Ottoman suy yếu, trong khi đó Nam Yemen vẫn là thuộc địa của Anh; một cuộc nổi dậy của 2 miền Yemen đã khiến thực dân Anh phải rút khỏi đây.

Sau cuộc Nội chiến Bắc Yemen, phía Bắc thành lập quốc gia cộng hòa bao gồm đại diện các bộ tộc. Được hưởng nguồn lợi từ dầu mỏ và nguồn thu nhập do các lao động Yemen làm việc tại các quốc gia Ả Rập vùng vịnh Ba Tư. Dân số trong năm 1980 khoảng 12 triệu người so với miền Nam là 3 triệu người.[1]

Nam Yemen phát triển chủ nghĩa Mác, chủ yếu kế tục[2] từ Mặt trận Giải phóng Quốc gia sau là đảng cầm quyền Đảng Xã hội Yemen. Quốc gia duy nhất xuất hiện chủ nghĩa Mác tại khu vực Trung Đông, Nam Yemen nhận viện trợ từ các nước và hỗ trợ khác từ Liên Xô.[3]

Tháng 10 năm 1972 chiến tranh nổ ra giữa miền Bắc và Nam, phía Bắc Yemen do Ả Rập Xê Út và Nam Yemen do Liên Xô hỗ trợ. Cuộc chiến ngắn ngủi kết thúc ngày 28 tháng 10 năm 1972 với Hiệp định Cairo, và đã đề ra kế hoạch thống nhất 2 miền.[4][5]

Cuộc chiến lại tiếp tục nổ ra vào tháng 2 và tháng 3 năm 1979, khi Nam Yemen bị cáo buộc hỗ trợ cho quân nổi dậy tại phía Bắc thông qua Mặt trận Dân chủ Quốc gia và vượt biên giới[6]. Lực lượng Nam Yemen đã thực hiện tại khu vực xa nhất thành phố Taizz trước khi rút lui[7][8]. Các cuộc xung đột này diễn ra khá ngắn ngủi.[9]

Vào cuối những năm 1980, thăm dò dầu khi giữa 2 miền diễn ra, Ma'rib ở Bắc Yemen và tỉnh Shabwah ở miền Nam, thúc đẩy sự quan tâm trong việc phát triển các thỏa thuận để khai thác tài nguyên ở đó và phát triển cả nền kinh tế quốc gia[10]. Vào tháng 5 năm 1988, 2 chính phủ đã có ra tuyên cáo khung giảm sự căng thẳng, bao gồm thỏa thuận gia hạn các thỏa thuận thống nhất 2 miền, thiết lập khu vực khai thác dầu chung giữa 2 miền, bây giờ được gọi khu vực đầu tư chung do Công ty Hunt Oil và Exxon đầu tư. Cũng trong tháng đó 2 miền Công ty Đầu từ Khai khoáng và Dầu mỏ Yemen (YCIMOR)[11]. Tháng 10 năm 1989 Ali Abdullah Saleh của Bắc Yemen và Ali Salim al-Beidh Nam Yemen cùng nhau thỏa luận Hiến pháp thống nhất được lập năm 1981, bao gồm một giới tuyến và khu phi quân sự tạm thời giữa 2 miền và thủ đô là Sana'a.